查看原文
其他

单因素分析,到底有没有必要做?

冯国双 医咖会 2021-01-15

来源:“小白学统计”微信公众号;感谢作者授权。


上一篇文章通过一个例子说明,不少人经常用到“先做单因素分析,然后把单因素分析中有统计学意义的变量纳入多因素分析”,这种思路在有些情况下未必可靠。


其实这里关键的问题就是:到底有没有必要做单因素分析?如果做单因素分析,是不是只把单因素分析中有意义的变量纳入多因素分析,而没有统计学意义的变量就不用纳入多因素分析了?


这个问题其实没有完全统一的答案,不同的统计学家也有自己的想法和观点,所以本文所提到的观点,仅是个人见解,有不同意本文观点的,纯属正常。


我们先把上一篇文章留下的疑问解释一下,其实这个问题也有不少人问过我,说:有没有可能单因素分析没有统计学意义,而多因素分析变得有统计学意义了。我的回答是:有可能。上一篇文章就是这种情况。


那么,为什么会出现这种情况?我们来仔细分析一下。


正常情况下,lx变量在单因素和多因素分析中结果差别这么大,通常都是跟其它变量的影响有关系。所以,我们从4个自变量的相关性入手来看。


如果看一下4个自变量的相关性,你会发现,其实a、b、c这3个变量对lx的影响都不大,相关系数都为-0.1左右(这算不上很大的相关)。然而如果仔细观察,你会发现另一个有意思的现象:a、b、c这3个变量与lx变量的相关都是负的,相关系数都为负数。


这就能说明一定问题了。尽管a、b、c三个变量每一个对lx变量的影响都不大,然而3个都一起影响,那就有可能产生一定的作用了。



说的通俗一点,由于a、b、c这3个变量对lx变量的影响都是负的,而a、b、c与y的关系又都是正的,这就是说,单因素分析中,当分析lx与y的关系的时候,其实a、b、c这3个变量都扯了二者关系的后腿。


用大家熟悉的一部经典美剧来说明这个意思。我想大家可能都看过《friends》(最经典的美剧,没有之一),其中第三季第9集中,6个人组队玩球,最后3个男生一组,三个女生一组。Joey抢到球往前跑的时候,Rachel先跑过去抱住Joey的脖子,以阻止Joey往前跑,这就是扯后腿。


然而三个女生很快发现,仅靠一名女生扯后腿的力量有限,Joey仍在继续跑,所以Monica和Phoebe继续各自拽住Rachel的腿往后拉,这时候Joey的速度就明显慢了。也就是说,三个女生,每个人往后拉Joey的力量都不大,然而三个一起就大多了。



本例的解释其实跟这个是一个意思。在本例中,a、b、c这3个变量每个对lx变量的扯后腿的作用都不是很大(相关系数都不大),然而三个同时对lx变量有负相关,合起来就有影响了。


所以,当我们看一下偏相关系数(也就是校正了a、b、c这3个变量后,lx变量与y的纯相关),就会发现lx与y的相关性(相关系数为0.3511)明显高于一开始二者的关系(相关系数为0.1912)。



同样,如果做回归分析,单因素分析中,lx变量与y的关系如下图所示。



而校正了a、b、c这3个变量的多因素分析中,lx变量与y的关系则变成了下面的样子。可以看出,斜率更大了。



当然,这只是本例的特例,实际中未必所有数据都是这样。所以我一般喜欢说“具体问题具体分析”,不是故弄玄虚,而是真的如此。每个数据都不一样,没有办法说一个统一的、完全标准的分析过程。


也许在有的数据中,“先做单因素分析,然后把单因素分析中有统计学意义的变量纳入多因素分析”,这种思路并没有问题;但在有的数据中,可能就有问题。


那么什么情况下有可能会出现:“单因素分析没有统计学意义,而多因素分析中有统计学意义”这种现象?


其实本例已经给了一个很好的答案,如果其它变量(如a、b、c)与研究变量(如lx)之间是负向关系,而研究变量(如lx)与因变量(如y)之间是正向关系,且其它变量(如a、b、c)与因变量(如y)之间也是正向关系。这时候就很容易出现“单因素分析没有统计学意义,而多因素分析中有统计学意义”。


实际中到底要不要“先做单因素分析,然后把单因素分析中有统计学意义的变量纳入多因素分析”这种思路?我个人的观点是比较明确的:决不能照搬这种思路。有时会让你错失发现数据真相的机会。


其实数据分析本来就不是很容易的,有时我给别人说完一些分析思路,他们会很疑惑:这么麻烦啊?也许,在很多非统计学专业的人的眼中,统计分析无非就是跑跑软件,出个结果。现实中确实也有很多人就是这么做的。然而,真正的统计学家不会这么做,有些复杂数据有时都得花费十天半月(甚至几个月都有可能)来考虑。


单因素分析到底有没有必要做?


看了前面的例子,有的人的世界观已经彻底崩塌了:原来说好的“先做单因素,单因素分析中有统计学意义的变量再纳入多因素分析”这种思路,怎么就不灵了。我还能相信什么?到底要不要做单因素分析了?


首先声明:本文仅代表作者个人观点,有不同意见纯属正常。


我个人的建议是:单因素分析要做,但是,不能死板地根据单因素分析中P值小于0.1(或0.2、0.3等)而决定把变量纳入多因素分析。是否把一个变量纳入多因素分析,单因素分析的P值只是一个提示,还需要考虑其它因素。


下面逐一解释这句话什么意思。


首先,要做单因素分析但目的绝不是简单地为了初筛变量,我认为目的至少有二:


第一,初步探索自变量与因变量的关系,因为不管是线性回归还是logistic回归、Poisson回归等,其本质都是线性模型。不管你的自变量与因变量(或因变量的变换)是不是线性,分析结果只会给出有没有线性关系。所以必须保证自变量与因变量(或因变量的变换)之间是线性的,而这一点就可以通过单因素分析来实现。单因素分析中可以很方便地显示每个自变量与因变量(或因变量的变换)之间的大致关系。


虽然很多人都认为图形过于主观,但我个人还是非常喜欢图示的。图形可以告诉我们很多信息,不管是散点图还是其它图形,既直观又方便,比单纯的P值要好。


第二,如果自变量太多(相对例数而言),单因素分析确实也可以做一些初筛,否则因素太多时,一股脑把所有变量都纳入模型执行多因素分析未必现实。比如你有30个变量,但例数只有60例,无论如何不可能直接把30个变量一起纳入,否则每个变量的标准误都会太大,每个变量都不会有统计学意义。


有的人咨询我的时候会说:我这些变量都很重要,都不能删,都想保留在模型中。但是,如果你的例数不足够,你的变量再重要,也无法纳入模型。我见过太多的理想与现实矛盾的情况,你想的很好,但是例数不够,必须让你做出让步。所以有时单因素分析可以做一些初筛。


但是,有一点一定要注意:单因素分析的初筛决不能只看P值。不是说P值大于0.1(或0.2、0.3等)就直接舍弃了,而应该结合其参数估计值、标准误以及专业的重要性,综合来考虑。另外,还需要观察研究变量与其他变量之间的关系,就像上文例子,如果其它变量与研究变量的关系很不幸的都在一个方向上,那就得仔细看了。这种情况下,什么事情都有可能发生,一定要谨慎。


总之,因素分析是一件细活,有的人说,我有40多个因素,难道我每个因素都得看一下是否跟因变量(或因变量的变换)是否线性关系吗?这多麻烦啊!我的回答是:是不是要看,是不是要做的这么细,取决于你自己。我把如何分析的思路告诉你,但是你是不是按这种思路来做,只能你自己决定。


你当然可以不这么做,可以把所有变量一股脑儿放到软件中跑出结果,也可以按“单因素分析P<0.1的变量再纳入多因素分析,在软件中跑出结果”,这都可以出结果。然而结果是否可靠,也许只有天知道。统计软件是一个双刃剑,你无论把什么数据扔进去,它都会给出你一个结果,但它不会告诉你的结果是否准确可靠。


很多人来咨询我问题的时候,往往都希望得到一个很直接的答案,比如:你就告诉我这个变量有没有意义就行了。可惜的是,往往数据没有这么听话,不一定是像你想象的那么简单。就像患者咨询医生一样,患者想听到一个最直接的答案:你就告诉我这是个什么病(或者,你就告诉我这个病能不能治好)。同样可惜的是,往往医生也无法做出这个直接的回答。其实这是一回事。


所以,如果你觉得患者问你“你直接告诉我这是什么病”这样的问题让你无法回答,那你也应该体会到,如果你问一名统计学家“你就告诉我这个变量有没有意义”这样的问题,同样也让统计学家难以回答。你觉得确诊一种疾病很难,同样,统计学家分析你的数据也不是这么容易。


对于一份数据的分析,如果你实在拿不准,我的建议是,直接请教统计学家。毕竟他们经验更为丰富一些,就像一般人也喜欢挂老专家的号一个道理,因为他们经验多。


我也曾帮助不少人解决过一些问题,比如,他们自己确实分析不出来,但是可能我从其它角度重新分析,或者换种思路重新分析,结果会跟他们原来做的不同。这让他们很欢欣鼓舞,也觉得好像统计学很神奇,本来没有意义的,做出有意义结果了。


但其实并非如此,统计学不能无中生有,如果一个变量真的没有意义,那统计学无论怎么折腾,它最终也还是没有意义。为什么你做的没有意义,而我做的就有意义。这只是因为原来你的思路有问题,我重新换了思路而已,所以发现了本来你没有发现的结果。仅此而已。


所以,也不要对统计学期望太高,也不要觉得统计学无用。统计学只是帮你更加客观地看待数据,更加理智地发现规律,更加有效地利用数据,让你离真实结果更接近。


更多阅读

1. “先做单因素,有意义的做多因素”,这种思路对吗?

2. 单因素分析和多因素分析的结果不一致,怎么办?

3. 【合集】75篇SPSS统计操作教程,全在这里!

医咖会微信:medieco-ykh

关注医咖会,轻松学习统计学~


快加小咖个人微信(xys2018ykf),拉你进统计讨论群和众多热爱研究的小伙伴们一起交流学习。


点击左下角“阅读原文”,看看医咖会既往推送了哪些统计教程。或者使用电脑打开网址:http://www.mediecogroup.com/,查看60种SPSS教程。

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存